`

СПЕЦІАЛЬНІ
ПАРТНЕРИ
ПРОЕКТУ

Чи використовує ваша компанія ChatGPT в роботі?

BEST CIO

Определение наиболее профессиональных ИТ-управленцев, лидеров и экспертов в своих отраслях

Человек года

Кто внес наибольший вклад в развитие украинского ИТ-рынка.

Продукт года

Награды «Продукт года» еженедельника «Компьютерное обозрение» за наиболее выдающиеся ИТ-товары

 

OpenAI приховує технологію виявлення текстів ChatGPT

Як з'ясувалося, OpenAI досить давно має технологію, що дозволяє помічати тексти, згенеровані ChatGPT, для подальшого виявлення. Але компанія не запускає її, незважаючи на регулярні скарги викладачів на використання AI студентами під час підготовки робіт.

Технологія полягає в невеликій зміні методу генерації тексту так, щоб вибір наступних токенів створював патерн, що непомітний людині, але легко визначається при комп'ютерному аналізі. Проте її запуск так і не відбувся. Оскільки OpenAI боїться відлякати користувачів – одне з опитувань лояльних користувачів показало, що приблизно третина з них відмовиться від використання ChatGPT у разі ризику бути спійманими.

Офіційний спікер компанії прокоментувала також, що компанія побоюється ефекту, який така технологія може мати щодо неангломовних користувачів. Технології OpenAI зокрема широко використовуються для листування людьми, для яких мова листування (найчастіше англійська) не є рідною, або хоча б добре знайомою (до речі, так – я більше 40 років вивчаю англійську, начебто вільно нею розмовляю, багато читаю і слухаю, але фізично не здатний стільки раз вибачитись у невеликому діловому листі, як це робить ChatGPT).

Втім, зрозуміло, що цю технологію спіткає звичайна доля – одні користувачі навчаться писати промпти, які зламають патерни, інші візьмуть текст, написаний з патерном, запхають його в іншу модель… – загалом щось вигадають, причому досить швидко.

OpenAI приховує технологію виявлення текстів ChatGPT

OpenAI тестує прототип власного інтернет пошуковика

OpenAI анонсував прототип SearchGPT – пошукову систему, яка працює на базі ChatGPT і при цьому, завдяки партнерству з видавцями, індексує свіжий і перевірений контент. Поки що доступ відкритий обмеженому числу користувачів, іншим пропонується записатися в список очікування. Візуально пошук має симпатичний вигляд.

Власне, я вже неодноразово говорив, що навіть у вигляді ChatGPT можна покрити умовну третину запитів – тобто інформаційні запити, що відповідають на запитання «Що це таке?», «Як це працює?» і т.д. Але є й інші запити – навігаційні «На якому сайті ця інформація?» і транзакційні «Де це купити/ замовити?», – які ставлять зовсім інші вимоги.

Перш за все, це свіжість. Зрозуміло, що відповідати на запитання щодо погоди, приміром, потрібно актуальною інформацією. Будь-який запит, що покривається новинною відповіддю, теж критичний до її свіжості.

Крім того, щоб відправити людину в точне місце в інтернеті за інформацією або транзакцією, потрібно це місце проіндексувати й знати. У великих мовних моделей (LLM) із цим не так добре і не тільки через галюцинації.

Тож прототип буде цікавим, а ось до реального пошуку поки далеко.

OpenAI тестує прототип власного інтернет пошуковика

Не плутайте фінансові сервіси з банками

В українських чатах стримана буря – американський фінансовий стартап Mercury, яким багато хто користувався як заміною банківського рахунку, направив всім українським клієнтам повідомлення, що перестає їх обслуговувати через зміни в політиці. Зміни полягають у тому, що компанія включила Україну до списку підсанкційних країн нарівні з РФ, Венесуелою, Іраном, Північною Кореєю тощо. Спілкування з техпідтримкою розкриває деталі – мовляв, частина території України перебуває під санкціями (мається на увазі Крим та ОРДЛО). Як їх відрізнити від інших, компанія не знає. І тому, щоб не ризикувати, вирішили заблокувати всіх, заберіть гроші.

Що можна сказати з цього приводу?

По-перше, ніколи не плутайте фінансові сервіси з банками. Mercury не є банком, обліковий запис у ньому не є банківським рахунком, а клієнти Mercury не є клієнтами банку з усіма витікаючими проблемами для їх прав. Наприклад, гроші на обліковому записі там не застраховані, як це відбувається з грошима на банківських рахунках.

Крім того, статус банку зобов'язує організацію формувати відповідні резерви, регулярно проходити аудит, у тому числі від регулюючого банку тощо. Наприклад, німецький N26 є банком, оскільки отримав відповідну ліцензію від європейського Центробанку (ECB). Revolut отримав банківську ліцензію від Банку Литви, її дія поширює на всю Європейську економічну зону, але не поширюється на Велику Британію – і це окреме складне завдання, яке вони намагаються вирішити уже не перший рік, при тому, що саме там вони розміщені.

А Wise (колишній Transferwise) банком не є – це платіжна система, яка має статус системи грошових переказів (Money Transmitter). Вони не можуть приймати депозити, надавати кредити та випускати кредитні картки. Вони можуть приймати гроші від клієнтів, переводити їх в іншу валюту і відправляти одержувачу. Звичайно, люди зрештою зберігають якісь суми на акаунті. Але якщо вони їх втратять, то це їхні проблеми.

По-друге, через те, що Mercury – це фінансовий сервіс, а не банк, він страшенно боїться всього регуляторського. Вони можуть скільки завгодно говорити про новий банкінг та відсутність обмежень. Але за фактом сильно наляканий регуляціями фінсервіс вимагає від клієнтів багатьох днів листування на будь-яку незначну операцію. В цьому випадку він боїться, що за один акаунт кримчанина йому прилетить від партнерських банків, а пауза навіть на день з одним із банків може виявитися смертельною для сервісу.

По-третє, подумайте самі – сервіс, який хвалиться своєю неперевершеною безпекою, захистом від фрода та збільшеним страховим лімітом, але при цьому не може відрізнити Крим/Донбас від інших областей України. Srsly? Цим санкціям 10 років, ніякої зв'язності давно не існує, з реалізацією санкцій впоралися практично всі сервіси навіть у країнах, що розвиваються – а стартап випускника Кембриджу не може? Ви справді хочете, щоб ваші гроші продовжували бути підконтрольними цим хлопцям?

У мене немає відповіді на запитання «А як же бути гарним стартапам, які хочуть нормально працювати у світі?». Я тільки знаю, що варіант «користуватися сумнівними фінансовими сервісами, які не є банками й не несуть жодної відповідальності перед клієнтами», відповіддю не є.

P.S. У дискусії про Mercury в телеграм-каналі раптом з'явилися аргументи «Сервіси визначають людей на територіях санкцій по IP, от і блокують». На підтвердження даються скріншоти різноманітних сервісів, які дійсно показують геолокацію IP, запитуючи інформацію невідомо де. Наприклад, IP-адреса, що відноситься до українського оператора Lifecell, співвідноситься з геолокацією в Луганській області.

Аргументи виду «А ось такий сервіс ось так показує» видають людей, які не розбираються, як такі дані взагалі можуть бути отримані, але сліпо довіряють будь-якій інформації в інтернеті.

Усі мобільні оператори, зазвичай, не мають прив'язки адрес до геолокації. Хоча б тому, що ви можете отримати IP у Києві, поїхати машиною, доїхати до Кіровоградської області – що вам, IP у кожній області міняти?

Укртелеком – це окрема історія, там історично ОДИН DHCP-сервер на всю Україну, який роздає IP просто поспіль. Я свого часу спілкувався і з ними, і зі стільниковими операторами – єдине, що змогли запропонувати, це Київстар сказав, що можуть тегати трафік CellID.

Як виходять зі становища всі ці бази? Різною евристикою. Наприклад, якщо це мобільний пристрій, можна отримати геолокацію по GPS+WiFi. Якщо це десктоп і щось портальне – можна переглянути, погоду в якому регіоні дивиться користувач.

Проблема в залипанні – якщо той чи інший IP виданий користувачеві, який явно уточнив своє становище, а потім потрапляє до іншого, про якого нічого не відомо, то швидше за все евристика і його припише до регіону попереднього користувача.

Проблема ще й у тому, що є різні бази – наприклад, MaxMind, що існує 20 років – які досить дешево дають доступ і цим свідченням вірять, як Біблії, – ну це ж сервіс в інтернеті показав. Це вже проблема віку – знаєте, як в анекдоті «Рабіновичу, ви Біблію читали? – Ми її писали? Оскільки я пам'ятаю першу супер криву версію MaxMind, що вийшла 20 років тому, яка помилялася країною, мені неможливо зрозуміти пієтет людей, які скрізь наводять результат MaxMind, не знаючи, звідки він береться.

Не плутайте фінансові сервіси з банками

Цікаве архівне відео з виступом 28 річного Стіва Джобса

Steve Jobs Archive виклав дуже цікаві архівні матеріали – повний запис виступу Стіва Джобса на міжнародній конференції з дизайну в Аспені 1983 року. Джобсу 28 років, він починає з жарту, що йому заплатили $60, тому він одягнув метелика (до піджака і джинсів). Далі він повідомляє, що ті, кому на момент виступу було понад 36 років, народилися раніше комп'ютера, а ось сучасні будуть продуктом комп'ютерного покоління, як його слухачі – продукти телебачення.

Дуже цікаво дивитися – Джобс пророкує, що за кілька років, у 86-87 роках, люди широко користуватимуться комп'ютерами та навіть проводитимуть із ними більше часу, ніж в автомобілях – 2-3 години на день. Лекція із запитаннями триває близько години, але дивитися точно варто.

Цікаве архівне відео з виступом 28 річного Стіва Джобса

Signal, у вас проблеми

Signal нарешті вмовили, що в нього є проблема з безпекою. Я стежу за розвитком ситуації, яка почалася з того, що одному з дослідників вдалося клонувати сесію десктопного застосунку на Mac OS, і вона успішно піднялася на іншій машині (у віртуалці). Причому сам Signal не показував ніде новий пристрій із сесією, хоча справно посилав на нього повідомлення.

Виявилося, що ключ, яким зашифрована локальна база даних, генерується Signal самостійно (тобто це не пароль, який вводить користувач, і не якісь похідні від нього) і зберігається в plain-text на цій же машині. Таким чином за наявності фізичного або програмного доступу до системи шифрування бази стає нікчемним.

Загалом, там і Маск під'єднався, і президентка Signal Мередіт Вітейкер багато відповідала, що, мовляв, раз у зловмисника є повний доступ до системи, то вони й не зможуть нічого захистити й ніколи не збиралися. Але в підсумку погодилася, що цим треба зайнятися. Тим більше, що рішення практично вже існує. Створене незалежним розробником, яке використовує safeStorage API в Electron (так, десктопні застосунки Signal на ньому написані) для зберігання ключів у системних сховищах типу keychain.

Уся ця історія доводить просту істину – безпечних месенджерів узагалі не існує, і найвразливіше місце в будь-якій системі – це прокладка між кріслом і клавіатурою.

Signal, у вас проблеми

Microsoft не довіряє китайським магазинам додатків

Співробітники Microsoft у Китаї отримали повідомлення, що з вересня вони не повинні використовувати телефони на платформі Android для робочих цілей. Доступ до корпоративної інфраструктури для таких пристроїв буде заблоковано. Співробітникам пропонується перейти на iPhone.

Причина проста – доступ до Google Play Market у Китаї заблоковано. Тому користувачі Android у країні використовують сторонні магазини – Xiaomi, Huawei тощо. Це створює проблему з погляду безпеки. Очевидно, що американська компанія Microsoft воліє довіряти сервісам американських же Google та Apple. Оскільки не можна дати жодної гарантії, що, наприклад, Microsoft Authentificator, викачаний з магазину Huawei, не міститиме безплатного доповнення від китайського уряду.

Microsoft не довіряє китайським магазинам додатків

До дефіциту електроенергії готуються у США

Технологічні гіганти впритул підступаються до чергового виклику – подальший розвиток технологій, включно з AI, вимагає не тільки софту і процесорів, а й енергії. Тому вони обговорюють купівлю електроенергії безпосередньо на АЕС. Amazon Web Services, наприклад, уклав вже два контракти на постачання електроенергії безпосередньо з власниками атомних електростанцій у східних штатах.

Але це викликає побоювання і навіть критику. Річ у тім, що датацентри будуються набагато швидше, ніж атомні електростанції та й взагалі нові електростанції. Це означає, що великий покупець, найімовірніше, відбере наявні енергоресурси в інших споживачів. За різними прогнозами, очікується, що ЦОДи становитимуть від 4 до 9% національного споживання до 2030 року.

Іронія долі полягає ще й у тому, що я пишу цю замітку, вкотре за день переключившись усім будинком на резервне живлення від батарей. Як то кажуть, нам би їхні проблеми. Але ці проблеми нас також не минуть.

До дефіциту електроенергії готуються у США

40 млрд дол. може стягнути з Apple Єврокомісія

Єврокомісія формально висунула звинувачення проти Apple у порушенні вимог Digital Markets Act в частині обмеження права розробників пропонувати користувачам альтернативні способи оплати та взагалі виводити їх за межі App Store.

Якщо розгляд звинувачень закінчиться не на користь компанії, Apple може бути оштрафована на суму до 10% від глобального обороту – тобто приблизно 38 млрд дол. за даними 2023 року.

Утім, Apple вважає, що вже усунула можливі претензії ще до набуття DMA чинності на початку цього року. Тож будемо не поспішаючи дивитися на перебіг розгляду.

40 млрд дол. може стягнути з Apple Єврокомісія

Подарунок для конспірологів

Звістка – просто подарунок для конспірологів. До ради директорів OpenAI – тобто non-profit організації, – увійшов Пол Накасоне, колишній глава Агентства національної безпеки США. Він також займеться роботою в рамках комітету з Safety and Security (якщо ви знаєте переклад, що відрізняється від «безпека і безпека», підкажіть), про створення якого було оголошено місяць тому.

NSA (National Security Agency) за своїми функціями – це найсекретніший підрозділ розвідки, який спеціалізується на операціях щодо комунікацій та інформаційної безпеки. Причому його діяльність включає як розвідку, так і контррозвідку.

Подарунок для конспірологів

ACDC підвищать безпеку AI

Apple намагається розв'язати проблему поєднання AI та приватності за допомогою доволі амбітного проєкту під умовною назвою ACDC (Apple Chip in Data Centers). У його рамках компанія використає власні чіпи, що містять Secure Enclave, у серверах, які стануть своєрідними «чорними скриньками», доступу до яких немає навіть у співробітників компанії.

Це дасть змогу не обмежувати можливості AI обчислювальною потужністю смартфонів, планшетів і комп'ютерів Apple, зберігаючи водночас необхідну приватність. Адже Apple постійно повторює, що дані користувача не залишають його пристрою і недоступні компанії. Щоправда, у цьому випадку вони все ж залишають пристрій. При цьому залишається питання, чи зможе Apple масштабувати цю схему виробництвом необхідної кількості процесорів.

ACDC підвищать безпеку AI

 

Ukraine

 

  •  Home  •  Ринок  •  IТ-директор  •  CloudComputing  •  Hard  •  Soft  •  Мережі  •  Безпека  •  Наука  •  IoT